Intel 不但做PC、伺服器、連邊緣裝置也是不放過!?沒有錯喔,Intel 擁有完整的產品線與第三方的強力合作夥伴,造就在 Edge AI 領域高度的評價與能見度。
Intel Core-i5 9400F (source: Unsplash)
Intel 強大的既有優勢就是幾乎人人都使用過他們的 PC 平台,因此開發者在開發主機 Host 與邊緣裝置 Target 之間轉換完全不會有困擾,所有運行在開發主機的程式可以輕鬆的移植到邊緣裝置上,不像是 ARM 平台上需要跨平台編譯及其衍生的套件相容性問題。在執行AI推論的運算除了仰賴 CPU 之外,還可以透過內建顯示晶片 iGPU 進行加速。對於特殊需求的開發商還可以選擇使用 FPGA(原Altera) 與 VPU(原Movidius) 進行加速。
再者,也因 Intel Based 的工業電腦也早已行之有年,生態圈的合作夥伴眾多,諸如研揚、凌華、研華等設備商可以提供開發者選擇各種不同層級的工業電腦應用於各類場域中,在硬體設備的多樣性與銷售通路採購絕對是毋須擔心。
OpenVINO 是由 Intel 推出的模型最佳化的工具集成,可以把不同深度學習框架所訓練出來的模型,在經過轉換與最佳化之後,放到 Intel 的 CPU、GPU或VPU上面去執行AI推論。不管在邊緣裝置上安裝的作業系統是 Windows、MAC OS 或是 Linux 發行版本,只要在安裝 OpenVINO Runtime 函式庫之後,就可以順利地跑 AI 推論,並且還可以提高執行效能,大幅簡化開發者佈署AI模型到邊緣裝置上的困擾!值得一提的是,OpenVINO 工具包還有一個名為 Opne Model Zoo的子項目,裡面涵蓋大量預訓練的模型與應用範例,都是可以給開發者使用或是做展示的喔!
OpenVINO 支援不同深度學習框架的模型轉換(source: Intel)
由於本次主題硬體平台會著重在 NVIDIA Jetson Nano, 如果大家對 Intel Edge AI 有興趣我們再另外開一個鐵人賽來討論。 對於 Intel Edge AI 想要進一步了解的夥伴,建議可以從以下資源開始探索:
Intel 的邊緣裝置在智慧製造或是工業領域中,佔有舉足輕重的要角,在軟硬體的支援度也非常優異,可以在短時間內張羅好必要的軟硬體配套進行快速佈署。不過較為可惜的是邊緣裝置價位偏高,學校以及教育單位也沒有相對應的教學資源或設備,可以讓學生或是小型開發團隊接觸與學習,和實際工業界造成應用落差。好在不幸中的大幸是,近兩年 Intel 也正在陸續補足網路上的學習資源了!
在筆者落筆的同時, 2022 Intel DevCup Edge AI 競賽正在熱烈報名中!DevCup 在去年舉辦時受到熱烈的迴響,今年再次舉辦也代表 Intel 在推行 Edge AI 這塊不遺餘力。與其跟著鄉民在外圍湊熱鬧,不如實際跳下去參一腳!實戰才是最佳的學習路徑,頭洗下去就對啦!9/20 前完成報名還可以抽空氣清淨機PS5!